Stokastik ve deterministik hareketlerin optimizasyon süreçlerindeki etkileri

Bu çalışmada Çok Değişkenli Lineer Regresyon (Multivariate Linear Regression-MLR) modeli kullanarak iris veri setini temsil eden lineer bir fonksiyon elde edilmektedir. fonksiyondaki katsayıların optimum değerlerini bulmak için Stokastik Dik İniş (Stochastic Gradient Descent-SGD), Momentum, Adagrad, RMSProp, Adadelta ve Adam optimizasyon algoritmaları kullanılmaktadır. MLR’lerde genelde sabit veya rastgele değer ile başlatılan bu katsayılar başlangıç popülasyonuna sahip başlatma yöntemi önerilmektedir. Kullanılan MLR modelinde amaç fonksiyonu olarak Mutlak Hata Değeri (Integral of the Absolute Value Error-IAE), Zaman Ağırlıklı Time-Weighted Error-ITAE), Ortalama Karesel (Mean Square Error-MSE) Error-ISE) hata fonksiyonlarından yararlanılmaktadır. Öncelikle alt üst sınırlar arasında önerilen deterministik klasik stokastik yöntemleri uygulamaların popülasyonları oluşturulmaktadır. uygulama literatürdeki gibi birçok defa çalıştırılıp ortalama değerleri alınmaktadır. Buna karşılık ise kez çalıştırılmaktadır. Deterministik yöntemlerinin sonuçlarına göre iki uygulamada da edilen adım sayılarının birbirine yakın olduğu gözlemlenmektedir. rağmen çok yüksek zamansal kazanım İki sonuçlar karşılaştırılarak analiz Karşılaştırmalar sonucunda algoritması MSE fonksiyonuyla model en kısa zamanda sonuca ulaşmaktadır.